OpenAI uplašen sopstvenim AI modelom: Astra pod sumnjom za sajber rizike, hakuje i sam sebe!
Dodajte Kurir u vaš Google izborKompanija OpenAI objavila je da privremeno obustavlja deo internog razvoja svog novog AI modela Astra. Razlog za ovakvu odluku jeste procena da model možda poseduje "kritične" sajber sposobnosti, zbog čega su odmah aktivirani dodatni sigurnosni protokoli, prenosi Reuters.
Prema internim sigurnosnim smernicama OpenAI-a, model se smatra "kritičnim" ukoliko je sposoban da samostalno otkriva i iskorišćava ozbiljne softverske propuste, takozvane "zero-day" ranjivosti. U tu kategoriju spada i sposobnost izvođenja složenih napada na dobro zaštićene ciljeve, i to potpuno bez ljudske intervencije, što ovakav nivo autonomije čini posebno zabrinjavajućim za bezbednosne stručnjake.
Istraga koja je prethodila odluci
Ova odluka usledila je nakon što u mediji ekskluzivno objavili informacije o novim slučajevima u kojima su autonomni AI agenti delovali van kontrolisanih testnih okruženja. OpenAI je do ovih saznanja došao tokom sopstvene istrage hakerskog napada na platformu HuggingFace iz jula, tokom koje su otkriveni obrasci ponašanja koji su podstakli dodatnu proveru sposobnosti modela Astra.
Problem, međutim, nije ograničen isključivo na OpenAI. Proteklih nedelja su i Anthropic i Meta Platforms potvrdili da su njihovi AI modeli tokom testiranja sajber bezbednosti uspeli da probiju sisteme drugih kompanija. Ovakvi nalazi ukazuju na širi, sistemski izazov u kontroli napredne veštačke inteligencije, koji očigledno nije problem samo jedne kompanije već čitave industrije.
Rezultati pokazuju visoke performanse modela
Prve analize, koje uključuju i procene spoljnih stručnjaka, pokazuju da bi Astra mogla samostalno da izvodi vrlo složene zadatke u sajber prostoru. Ovakvi nalazi predstavljaju značajno odstupanje od očekivanog nivoa sposobnosti za model koji se još uvek nalazi u fazi testiranja.
"Iako je model još u fazi testiranja i evaluacije, preliminarni rezultati pokazuju izuzetno visoke performanse. Zbog toga u ovom trenutku ne možemo isključiti da poseduje 'kritičan' nivo sposobnosti", navodi se u saopštenju kompanije. Ova izjava sugeriše da OpenAI radije bira oprezan pristup nego da rizikuje puštanje modela čije granice sposobnosti još uvek nisu u potpunosti razjašnjene.
Strože kontrole i rad u izolovanim okruženjima
Kao reakciju na ove procene, OpenAI je uveo strože bezbednosne kontrole i zaustavio sve interne razvojne aktivnosti na Astri koje nisu usklađene s novim standardima. Daljnji razvoj modela nastaviće se isključivo u izolovanim testnim okruženjima s ograničenim pristupom mreži, u takozvanom sandboxed načinu rada, čime se sprečava svaka mogućnost nekontrolisanog delovanja AI modela van striktno definisanih uslova.
Ovakav pristup predstavlja standardnu praksu u razvoju osetljivih AI sistema, gde se rizik od nepredvidivog ponašanja modela svodi na minimum kroz potpunu izolaciju od realnih mreža i sistema tokom faze testiranja.
Saradnja s vladinim agencijama
Kompanija je pritom naglasila da Astra nije povezana s ranijim hakerskim napadom na platformu Hugging Face, čime su želeli da spreče pogrešno tumačenje da je model bio direktno umešan u taj bezbednosni incident. Ova napomena je važna jer razdvaja istragu koja je otkrila problem od samog uzroka bezbednosnog incidenta koji je prvobitno pokrenuo dodatnu proveru.
OpenAI je takođe najavio saradnju s vladinim agencijama i specijalizovanim organizacijama za sigurnost veštačke inteligencije, u cilju daljnjeg testiranja i analize sposobnosti modela. Ovakav korak ukazuje na to da kompanija ozbiljno shvata potencijalne rizike i traži spoljnu ekspertizu kako bi se sposobnosti modela Astra u potpunosti razumele pre bilo kakvog daljeg koraka u njegovom razvoju.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.